众所周知，对于 Llama3、GPT-4 或 Mixtral 等高性能大语言模型来说，构建高质量的网络规模数据集是非常重要的。然而，即使是最先进的开源 LLM 的预训练数据集也不公开，人们对其创建过程知之甚少。
John Schulman 是 OpenAI 联合创始人、研究科学家（OpenAI 现存最主要具有技术背景的创始人），他领导了 ChatGPT 项目，在 OpenAI 内部长期负责模型 post-traning，在 Ilya 和 Jan Leike 离开 OpenAI 后，下一代模型安全性风险相关的研究也会由 John Schulman 来接替负责。
最近一段时间中国大模型领域变得异常热闹，最重要的话题就是各大模型公司的“价格战”。
5 月 21 日上午，阿里云在其例行峰会上，意外地释放了大降价的消息：通义千问 GPT-4 级主力模型推理输入价格降至 0.5 元/百万 tokens，直降 97%。
OpenAI长期霸榜的SuperCLUE（中文大模型测评基准），终于被国产大模型反将一军。
近日，西交微软北大联合提出信息密集型训练大法，使用纯数据驱动的方式，矫正LLM训练过程产生的偏见，在一定程度上治疗了大语言模型丢失中间信息的问题。
I/O大会上，谷歌Gemini 1.5 Pro一系列更新让开发者们再次沸腾。最新技术报告中，最引人注目的一点是，数学专业版1.5 Pro性能碾压GPT-4 Turbo、Claude 3 Opus，成为全球最强的数学模型。
谷歌表示，Gemini 1.5 相比 Claude 3.0 和 GPT-4 Turbo 实现了代际提升。
北京时间 5 月 14 日凌晨，备受期待的 OpenAI 春季更新发布会上，CTO Mira Murati 宣布发布新的模型迭代版本——GPT-4o，o 代表「omnimodel」（全能模型），原生多模态，改进了文本、视觉和音频的能力。
继上周预告了ChatGPT和GPT-4「就像魔法一样」的重大更新后，OpenAI在北京时间14日凌晨，通过直播向外界展现了这家全球最瞩目人工智能大模型企业的最新成果。
